SphereFace
在2017年發表在CVPR的文章,改進原先使用softmax作為loss function的人臉辨識,使用large margin softmax loss再加上||W||=1和b=0的限制,使得预测僅取決於W和x之间的角度。
先介紹softmax loss,如果是一個二分類的問題,結果出來就是樣本預測為類別1和類別2的機率。
Large-Margin Softmax Loss是觀看類間和類內距離的差距,cos函數在0到π範圍是遞減的,cos(mx)要小於cos(x)。m值越大學習的難度越大,透過這種方式定義損失函數來使模型學到類間距離較大的但類內距離更小的特徵。
若使用L-softmax loss就是在訓練時增加原來的softmax loss的學習難度,利用一些限制來強迫模型學習些較容易辨識錯誤或是較為相似的特徵,讓模型學會辨識這些易辨識錯誤的資料,而非硬背下來簡單易分析的特徵,來加強模型學習的成效。